在標準的優化世界中，約束就像一道二元牆壁：你只能在內或在外。但在複雜系統中，這些「硬性」約束可能在數學上過於僵硬。拉格朗日框架提供了突破此限制的結構，將約束轉化為包含違規行為作為加權懲罰的「增廣」目標函數。這不僅僅是一種技巧；它更是透過拉格朗日乘子量化約束「成本」的基礎。
1. 從硬性約束到軟性懲罰
考慮一個標準問題：在 $f_i(x) \le 0$ 與 $h_i(x) = 0$ 的約束下最小化 $f_0(x)$。一個「硬性」約束等同於指示函數：
$$I_-(u) = \begin{cases} 0 & u \leq 0 \\ \infty & u > 0 \end{cases}$$
拉格朗日構造以線性懲罰取代了這種無限跳躍。我們在目標函數中加入約束函數的加權和：
$$L(x, \lambda, \nu) = f_0(x) + \sum_{i=1}^m \lambda_i f_i(x) + \sum_{i=1}^p \nu_i h_i(x)$$
其中，$\lambda_i$ 是 拉格朗日乘子。它作為一種「軟性」懲罰，用來調節第 $i$ 個不等式約束的影響力。關鍵的是，我們尚未假設凸性；這個框架具有普遍適用性。
對偶觀點
我們定義 拉格朗日對偶函數 $g(\lambda, \nu)$ 為拉格朗日函數在 $x$ 上的下確界。一個關鍵性質是 下界性質：對於任意 $\lambda \succeq 0$，有 $g(\lambda, \nu) \le p^*$。這使我們能夠對原本難以直接求解的問題的最優值進行界定。
2. 案例研究：混合動力車輛控制
想像一輛車需在燃油消耗與電池壽命之間取得平衡。這些約束是物理性的：功率需求必須在每一時刻都得到滿足。
- 功率平衡： $P_{\text{req}}(t) = p_{\text{eng}}(t) + p_{\text{mg}}(t) - p_{\text{br}}(t)$
- 電池動態： $E(t+1) = E(t) - p_{\text{mg}}(t) - \eta |p_{\text{mg}}(t)|$
- 目標： 最小化 $F_{\text{total}} = \sum_{t=1}^{T} F(p_{\text{eng}}(t))$
透過應用拉格朗日框架，電池容量約束被轉化為 影子價格。控制器根據當前能量的「成本」（即乘子）與燃油成本的比較，決定是燃燒燃料還是使用電池。
🎯 核心原則：對偶性與可行性
下界性質 $p^* \in [g(\lambda, \nu), f_0(x)]$ 只有在 $\lambda \succeq 0$ 且 $g(\lambda, \nu) > -\infty$ 時才具有實際意義。即使在非凸情況下，此關係依然成立，儘管可能存在「對偶差距」。